Các đơn vị điều hành nội bộ

• Cục Quân sự 
• Cục Huy động
• Cục Kỹ thuật
• Cục Nhân sự
• Cục Đào tạo
• Cục Y tế
• Cục Đóng tàu
• Cục Xây dựng Hải quân
• Văn phòng pháp lý
• Cục Hành chính / Kế toán

Các đơn vị điều hành ngoại bộ

• Cục Hàng không Hải quân
• Học viện Hải quân
• Đại học Hải quân (Nhật Bản)
• Trường Kế toán Hải quân
• Trường Y Hải Quân
• Trường Kỹ thuật Hải quân
• Bộ phận tàu ngầm
• Bộ phận Kênh và Đường thủy
• Phòng kỹ thuật hải quân
• Tòa án hải quân
• Tòa án hải quân Tokyo
• Bộ phận chiến tranh hóa học
• Bộ phận Radio và Radar
• Cục Hậu cần và vận tải
• Bộ phận xây dựng hải quân
• Bộ phận bảo trì và sửa chữa hải quân
• Bộ phận Vũ khí tấn công đặc biệt
• Bộ phận phản ứng khẩn cấp
• Bộ phận Đào tạo Hàng không Hải quân
• Bộ phận tình báo hải quân